Trước đây, Phú Thiện chỉ là một thị trấn thuộc huyện Ayun Pa cũ, nằm ở vị trí đông nam tỉnh Gia Lai, trên đường Quốc lộ 7 (nay là Quốc lộ 25) nối từ thị trấn Chư Sê (huyện Chư Sê) đi thành phố Tuy Hòa (tỉnh Phú Yên).

Ngày 30 tháng 3 năm 2007, huyện Ayun Pa cũ chia tách thành thị xã Ayun Pa và huyện Phú Thiện[1]. Huyện Phú Thiện được thành lập trên cơ sở 1 thị trấn và 9 xã còn lại của huyện Ayun Pa cũ.

Sau khi thành lập, huyện có 50.191 ha diện tích tự nhiên và 64.558 nhân khẩu với 10 đơn vị hành chính trực thuộc, gồm 1 thị trấn và 9 xã.